To Trust or Not to Trust: Retrieval-Augmented Fact Checking in Speech
信任与否:语音检索增强事实核查
🧭 语音事实核查 · RAG+CoT
IISER Bhopal · King's College London · MBZUAI
提出语音事实核查基准 VeriSpeak,揭示文本-语音模态差距,并验证检索+显式推理准确率达86.1%
📌 工作参考价值(4 点)
- 直播/短视频事实审核:在电商直播、短视频带货中,虚假宣传检测可用「语音输入 + 文本检索证据 + 显式推理」管道;仅拼接检索片段容易被模型混淆,应加 CoT 要求先区分“声明”和“证据”再判断。
- 模态差距评估:如果现有文本事实核查/内容安全模型被用于语音转写后的文本,要意识到可能存在系统性能下降;上线前需在真实语音或 TTS 基准上评估,或直接用 LALM 处理音频。
- RAG 防混淆设计:召回证据后,可在 prompt 中用角色/字段显式隔离 claim 与 evidence,并要求模型输出“一致/矛盾/无关”的结构化判断,这比直接给混合上下文更稳。
- 业务基准构建:可参考 VeriSpeak 的 probe 设计,构建电商领域 spoken claims 小样本(如功效、产地、价格承诺),快速对比不同 RAG+推理组合。